Dilahirkan dalam keluarga bangsawan Rom pada tahun 669, [2] Gregory ialah anak kepada Marcellus dan Honesta. [3] Gregory II ialah nenek moyang yang didakwa sebagai cagaran kepada keluarga Roman Savelli, [4] menurut penulis sejarah abad ke-15, tetapi ini tidak dibuktikan dalam dokumen kontemporari dan kemungkinan besar tidak boleh dipercayai. Perkara yang sama dikatakan tentang Pope Benedict II abad ketujuh, tetapi tidak ada yang pasti diketahui tentang persaudaraan antara mereka berdua.

Semasa muda, dia ditempatkan di mahkamah paus, dan dijadikan subdeacon dan sacellarius Takhta Rom semasa kepausan Sergius I (687–701). Kemudian dia dilantik sebagai diakon dan ditugaskan untuk menjaga Perpustakaan Vatican . [5] Semasa kepausan Constantine, Gregory telah dijadikan setiausaha paus, dan menemani paus ke Constantinople pada tahun 711 untuk menangani isu-isu yang dibangkitkan oleh penolakan Rom terhadap kanun Majlis Quinisext . [6] Perundingan sebenar mengenai artikel yang dipertikaikan telah dikendalikan oleh Gregory, dengan keputusan bahawa Maharaja Justinian II bersetuju bahawa kepausan boleh mengabaikan mana-mana keputusan majlis yang dikehendakinya. [7]

Selepas kematian Constantinus pada 9 April 715, Gregory telah dipilih sebagai paus, dan telah ditahbiskan sebagai uskup Rom pada 19 Mei 715. [5]